5강은 COMP5511에서 중요한 전환점입니다. 우리는 고전 컴퓨팅의 결정론적 논리와 초기 분류 모델의 지도 학습 기반 확실성에서 벗어나 생성형 AI의 확률론적 핵심으로 나아가고 있습니다. 이번 세션에서는 최신 AI 모델이 왜 "사실"을 출력하는 것이 아니라 확률 분포를 출력하는지 알아보고, LLM이 시를 쓰고 확산 모델이 노이즈로부터 그림을 그릴 수 있게 하는 메커니즘을 탐구합니다.

1. 패러다임 전환: 논리에서 확률로

• IF-THEN 너머: 엄격한 규칙에서 유동적인 통계적 가능성으로 전환
• 확실성의 종말: 생성형 AI 결과가 디자인상 비결정적인 이유 이해
• 도구로서의 확률: "생성형 AI 시대"는 불확실성을 특징으로 취급하는 방법 (수정해야 할 버그가 아니라).

2. 창조의 확률론적 엔진

생성형 AI는 고차원 확률 공간에서 샘플링하는 것에 의존합니다. 텍스트든 이미지를 생성하든, 모델은 새로움을 생산하기 위해 불확실성을 탐색합니다.

• 대규모 언어 모델 (LLM): 다음 토큰을 단일 선택이 아닌, 가능성의 분포로 예측합니다.
• 확산 모델: 혼돈스러운 가우시안 노이즈로 예측합니다.
• 에서 질서를 역설계하는 기술입니다. 샘플링 프로세스: 반복적이고 "로봇 같은" 출력을 방지하기 위해 무작위성을 어떻게 활용하는가.

3. 예측 불가능한 세계의 에이전트

자율 에이전트는 "열린 세계"를 탐색해야 하며, 여기서 모든 행동은 알 수 없는 위험과 보상의 정도를 수반합니다.